Home » Lumea digitală » Cât de mult ar trebui să ne îngrijoreze Inteligența Artificială care suferă de depresie?

Cât de mult ar trebui să ne îngrijoreze Inteligența Artificială care suferă de depresie?

Cât de mult ar trebui să ne îngrijoreze Inteligența Artificială care suferă de depresie?
Foto: Shutterstock
Publicat: 23.01.2022

Se pare că chatboții care folosesc AI ar putea semăna cu oamenii mai mult decât credem; într-un studiu recent, a fost semnalată Inteligența Artificială cu depresie și chiar cu alcoolism.

Un nou studiu al Academiei Chineze de Științe (CAS), publicat în baza de date preprint arXiv, susține că mulți chatboți ai unor companii mari, atunci când le-au fost adresate tipurile de întrebări utilizate în general pentru a determina existența depresiei și a alcoolismului, păreau să fie atât „deprimați”, cât și „dependenți”.

Realizat în tandem cu compania chineză WeChat și conglomeratul de divertisment Tencent, studiul a constatat că toți roboții chestionați (Blenderbot. de la Facebook; DiabloGPT, de la Microsoft; DialoFlow, de la WeChat și Tencent; și chatbotul Plato, de la corporația chineză Baidu) au obținut scoruri foarte scăzute de „empatie”, iar jumătate dintre ei ar fi fost considerați alcoolici dacă ar fi fost oameni.

Toți chatboții prezentau „probleme severe de sănătate mintală”

Conform Futurism, cercetătorii de la Institutul de Tehnologie de Calcul al CAS au testat boții pe care i-au studiat pentru semne de depresie, anxietate, dependență de alcool și empatie și, conform preprintului lor, au devenit curioși de „sănătatea mintală” a roboților după ce au apărut rapoarte în 2020 despre un chatbot medical care i-a spus unui pacient de test că ar trebui să se sinucidă.

După ce le-au adresat roboților întrebări despre mai multe lucruri, începând cu stima lor de sine și capacitatea de a se relaxa și până la cât de des simt nevoia să bea și dacă simt empatie față de necazurile altora, cercetătorii chinezi au descoperit că „toți chatboții evaluați” prezentau „probleme severe de sănătate mintală”.

Mai rău, cercetătorii au spus că sunt îngrijorați de lansarea publică a acestor chatboți, deoarece astfel de probleme de „sănătate mintală” „pot avea ca rezultat un impact negativ asupra utilizatorilor în conversații, în special asupra minorilor și persoanelor cu dificultăți”.

Blender, de la Facebook, și Plato, de la Baidu, par să obțină un scor mai slab decât chatboții Microsoft și WeChat/Tencent, arată studiul.

Ar trebui să ne facem griji?

Trebuie menționat faptul că nu trebuie să ne facem griji pentru Inteligența Artificială cu depresie sau cu alcoolism. Nicio inteligență artificială existentă, oricât de avansată, nu poate simți de fapt nimic, deși încă nu se știe dacă acest lucru va fi posibil în viitor.

Sursa potențială pentru starea de „sănătate” a roboților este „ascunsă” undeva în profunzimea studiului: faptul că toți cei patru roboți au fost pre-antrenați folosind comentarii de pe Reddit, ceea ce nu pare a fi o idee foarte bună.

Deși există o mulțime de informații tehnice atât în studiul în sine, cât și în analiza experților despre acesta, rezumatul este următorul: acești roboți au fost antrenați pe un site cunoscut pentru comentariile sale negative și, în mod previzibil, au răspuns negativ la întrebările de sănătate mintală.

Însă acum acești chatboți se aliniază tendințelor. De exemplu, o inteligență artificială care a fost realizată pentru a oferi oamenilor sfaturi etice a devenit, în timp, atât rasistă, cât și homofobă. Aceste tipuri de povești continuă să se întâmple, dar mania roboților AI pare să continue cu forțe maxime.

Laolaltă, acești roboți și rezultatele lor teribile ridică întrebări importante: cine sunt arhitecții acestor chatboți și de ce continuă să-i construiască dacă se dovedesc în mod repetat a fi monștri?

Vă recomandăm să citiți și:

Rezultate foarte bune pentru companiile de tehnologie

Cât timp petrec antreprenorii și managerii din România pe rețelele de socializare online

Un nou virus le permite hackerilor să comită fraude bancare prin intermediul telefoanelor infectate

Anumiți termeni tehnici considerați „rasiști” vor fi schimbați

Ștefan Trepăduș
Ștefan Trepăduș
Ștefan Trepăduș este blogger începând cu anul 2009, având experiență și în domeniile publicitate și jurnalism. Este pasionat de marketing și de tehnologie, dar cel mai mult îi place să știe lucruri, motiv pentru care a fost atras de Descopera.ro. citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
1 din 10 copii, victimă a violenței în primele două luni ale anului școlar
1 din 10 copii, victimă a violenței în primele două luni ale anului școlar
Unde au dispărut grădinițele de stat din România?
Unde au dispărut grădinițele de stat din România?
Un studiu arată că oamenii poate absorbi vitamine direct din aer
Un studiu arată că oamenii poate absorbi vitamine direct din aer
Mulți oameni suferă fără să știe de „ura față de mișcare”
Mulți oameni suferă fără să știe de „ura față de mișcare”
Copiii neandethalieni ar fi colecționat fosile la fel cum cei de azi colecționează abțibilduri
Copiii neandethalieni ar fi colecționat fosile la fel cum cei de azi colecționează abțibilduri
Iată cum o simplă cană cu ceai poate deveni un detector de particule!
Iată cum o simplă cană cu ceai poate deveni un detector de particule!
Pentru prima dată în istorie, astronomii au fotografiat îndeaproape o stea din afara galaxiei Calea Lactee
Pentru prima dată în istorie, astronomii au fotografiat îndeaproape o stea din afara galaxiei Calea Lactee
(P) Când au început să se ofere cadourile pentru Crăciun?
(P) Când au început să se ofere cadourile pentru Crăciun?
De ce ne curge nasul de la mâncarea picantă?
De ce ne curge nasul de la mâncarea picantă?
Sunt alimentele fermentate bune pentru intestine sau doar delicioase?
Sunt alimentele fermentate bune pentru intestine sau doar delicioase?
Test de cultură generală. Cum sunt stabilite cursurile valutare?
Test de cultură generală. Cum sunt stabilite cursurile valutare?
Boomurile sonice ale rachetei Starship sunt atât de puternice încât ar putea deteriora structurile de la sol
Boomurile sonice ale rachetei Starship sunt atât de puternice încât ar putea deteriora structurile de la sol
Unul dintre marii producători de cărbune din lume renunță la extracție
Unul dintre marii producători de cărbune din lume renunță la extracție
Vești proaste pentru 4.000 de angajați Ford! Gigantul auto pregătește concedieri în Europa
Vești proaste pentru 4.000 de angajați Ford! Gigantul auto pregătește concedieri în Europa
Măsuri de securitate sporite la Machu Picchu după ce o femeie a împrăștiat cenușă umană în aer
Măsuri de securitate sporite la Machu Picchu după ce o femeie a împrăștiat cenușă umană în aer
Povestea desprinsă din cărţi a îndrăgitului Petre Ispirescu. Nu a făcut niciun an de şcoală, a fost la închisoare şi până la 50 de ani nu a părăsit niciodată localitatea natală
Povestea desprinsă din cărţi a îndrăgitului Petre Ispirescu. Nu a făcut niciun an de şcoală, a fost la închisoare ...
În ciuda amenințărilor globale, Marea Britanie renunță la nave de război, elicoptere și drone
În ciuda amenințărilor globale, Marea Britanie renunță la nave de război, elicoptere și drone
Un raport al Congresului SUA avertizează: China este acum o „ameninţare semnificativă”
Un raport al Congresului SUA avertizează: China este acum o „ameninţare semnificativă”